面對企業應用生成式大模型時面臨的權杖（Token）運算成本挑戰，HPE（Hewlett Packard Enterprise）整合中國內地與香港團隊架構，並推動私有人工智能（AI）工廠解決方案架構。HPE 副總裁兼中國及港澳區董事總經理朱海翔（上圖左）指出，部分企業因全面採用公有雲應用程式介面，導致短期內消耗大量預算。為解決成本失控問題，人工智能工廠方案協助企業在本地或混合雲環境中，基於開源模型建立專屬的運算體系，以自行生成權杖的方式取代雲端按量計費。系統設計適配多款主流開源架構，企業可透過 HPE GreenLake 模式按實際消耗量縮放基礎設施，以維持數據主權與財務控制。
在宏觀經濟環境轉變，以至香港五年規劃與北部都會區發展的藍圖下，HPE 香港及澳門總經理郭榮忠（Vincent、上圖中）表示企業的資訊科技投資模式正發生根本性改變。業界積極研究代理式人工智能以提升生產力，惟過度依賴公有雲服務往往面臨權杖消耗過快與運算成本高昂的限制。為應對權杖經濟（Token Economy）下的資源分配，HPE 提出人工智能工廠底層架構，協助企業於本地或混合雲環境中建立專屬的算力基礎設施，透過自行生成權杖的方式降低公有雲服務開支。建基於混合雲的資訊科技編排與協作架構，讓企業能針對不同業務場景，以符合成本效益的方式靈活採用各款主流大語言模型。
人工智能模型的推論準確度高度依賴龐大數據的收集與儲存能力，構建完整的底層基礎設施成為企業訓練與管理模型的先決條件。為確保海量數據傳輸的穩定性，HPE 建立以人工智能驅動的自動駕駛網絡架構。該公司香港及澳門首席技術官尹頌恒（Lawrence、上圖右）指出，此整合 Juniper Mist 的技術能自動偵測並解決高達 80% 的潛在網絡問題，過程中毋須人手介入，同時具備預測未來潛在故障的能力，從而減輕企業在資訊科技基礎設施上的營運負擔並維持系統的高可用性。
